Explainability Assistant: A Conversational XAI Interface for Interpreting Energy Consumption Models
可解释性助手：用于解读能耗模型的对话式XAI接口
🧭 对话式XAI · LLM Function Calling
Nupp Software · Institute of Computer Science, University of Tartu · Apintech Ltd, POLIS-21 Group · Department of Mechanical Engineering, Hellenic Mediterranean University
用LLM function calling替代自定义语法，实现94%意图解析准确率的对话式可解释AI系统
📌 工作参考价值（4 点）
- 用 LLM function calling 替代 custom grammar / 意图分类器做 NLU，意图解析准确率从 76.8% 提到 94%；在做推荐系统诊断、模型解释、运维助手的对话式 Agent 时可直接复用，避免为每个意图维护固定语法。
- 把 LIME、SHAP、反事实等解释能力封装成 function schema，让 LLM 在对话中动态选择工具，适合嵌入内部调试或面向业务人员的模型解释界面，减少对技术背景的依赖。
- 评估方法可借鉴：邀请领域专家对比传统 dashboard 和对话式界面，既测任务完成一致性也测主观偏好；业务上线前用少量专家做可用性评估，比单纯离线指标更有说服力。
- 该工作面向能源预测，推荐算法本身无直接迁移价值，主要贡献在对话式 XAI 的工具编排与交互层。